ดอน ปรมัตถ์วินัย เริ่มเข้ารับราชการในปี 2517 ในกรมการเมือง กระทรวงการต่างประเทศ[2] ต่อมาระหว่างปี 2517- 2523 ไปทำงานในสังกัดกองเอเซียตะวันออก กองเอเซียตะวันออกเฉียงใต้ สำนักเลขานุการรัฐมนตรี เป็นหนึ่งในคณะของหม่อมราชวงศ์คึกฤทธิ์ ปราโมช นายกรัฐมนตรีในขณะนั้น ในการเยือนปักกิ่ง เพื่อสถาปนาความสัมพันธ์ทางการทูตกับจีน เมื่อปี 2518 และทำงานกิจการอาเซียนในช่วงหลังการประชุมสุดยอดอาเซียน ครั้งที่ 1 ณ บาหลี ประเทศอินโดนีเซีย 2519[ต้องการอ้างอิง]

ในปี 2523 นายดอนดำรงตำแหน่งรักษาการหัวหน้ากองนโยบายเศรษฐกิจ และการเงิน และหัวหน้ากองพาณิชยกรรมและอุตสาหกรรม สำนักงานอาเซียนแห่งประเทศไทย โดยเริ่มทำงานเกี่ยวกับปัญหาสงครามกัมพูชา–เวียดนาม[ต้องการอ้างอิง]

ต่อมาในปี 2524 นายดอนได้รับแต่งตั้งให้เป็น เลขานุการเอกสถานเอกอัครราชทูตไทย ณ กรุงบอนน์ ประเทศเยอรมนีตะวันตก และเป็นที่ปรึกษาสถานเอกอัครราชทูตไทย ณ กรุงบอนน์ ในปี 2527[ต้องการอ้างอิง]

ปี 2528 นายดอนกลับมาดำรงตำแหน่งผู้อำนวยการกองเอเชียตะวันออกเฉียงใต้ กรมการเมือง ก่อนที่จะไปดำรงตำแหน่งอัครราชทูตสถานเอกอัครราชทูตไทย ณ กรุงลอนดอน เอกอัครราชทูตประจำกระทรวง สำนักงานปลัดกระทรวงกระทรวงการต่างประเทศ และอธิบดีกรมเอเชียตะวันออกในปี 2531, 2534 และ 2535 ตามลำดับ[ต้องการอ้างอิง]

ต่อมาในปี 2537 ไปดำรงตำแหน่งเอกอัครราชทูตวิสามัญผู้มีอำนาจเต็มแห่งประเทศไทยประจำสมาพันธรัฐสวิส นครรัฐวาติกัน และราชรัฐลิกเตนสไตน์ ถิ่นพำนัก ณ กรุงแบร์น[ต้องการอ้างอิง]

ต่อมาในปี 2542 ย้ายมาดำรงตำแหน่งอธิบดีกรมสารนิเทศและโฆษกกระทรวงการต่างประเทศ ในช่วงนี้ได้เริ่มต้นงานด้านเยาวชนไทยในโครงการยุวทูตความดี และกลับไปดำรงตำแหน่งเอกอัครราชทูตอีกครั้ง โดยปี พ.ศ. 2544 ดำรงตำแหน่งเอกอัครราชทูตประจำสาธารณรัฐประชาชนจีน สาธารณรัฐประชาธิปไตยประชาชนเกาหลี และมองโกเลีย ถิ่นพำนัก ณ กรุงปักกิ่ง กรุงปักกิ่ง[ต้องการอ้างอิง]

ต่อมา ปี 2547 นายดอนย้ายไปดำรงตำแหน่งเอกอัครราชทูตและหัวหน้าคณะผู้แทนไทยประจำสหภาพยุโรป ราชอาณาจักรเบลเยียม และราชรัฐลักเซมเบิร์ก ถิ่นพำนัก ณ กรุงบรัสเซลส์ ดูแลทุกกิจการของไทยกับสหภาพยุโรปในช่วงวิกฤติสึนามิ 2547 ซึ่งเชื่อมโยงถึงการที่ไทยได้คืนระบบการให้สิทธิพิเศษทางภาษีศุลกากรเป็นการทั่วไป (GSP) ของสหภาพยุโรปในปีต่อมา[ต้องการอ้างอิง]

ในปี 2550 นายดอนย้ายไปดำรงตำแหน่งเอกอัครราชทูตและผู้แทนถาวรไทยประจำสหประชาชาติ ณ นครนิวยอร์ก ได้ทำงานเกี่ยวกับข้อเรียกร้องของกัมพูชาเรื่องปัญหาพื้นที่ทับซ้อนกับประเทศไทย กรณีเขาพระวิหาร ที่กัมพูชาพยายามนำเข้าสู่คณะมนตรีความมั่นคงแห่งสหประชาชาติ[ต้องการอ้างอิง] ในปี 2550 นี้ นายดอน ยังได้รับรางวัลครุฑทองคำ จากสมาคมข้าราชการพลเรือนแห่งประเทศไทย[4] ซึ่งเป็นรางวัลที่มอบให้สำหรับข้าราชการพลเรือนที่มีผลการปฏิบัติงานดีเด่น

และในปี 2552 นายดอนเข้าดำรงตำแหน่งเอกอัครราชทูตไทยประจำสหรัฐอเมริกา ถิ่นพำนัก ณ กรุงวอชิงตัน ดี.ซี. ดูแลประสานงานความสัมพันธ์ไทย-สหรัฐฯ ในช่วงระหว่างวิกฤตการเมืองไทย 2553 และได้ดูแลโครงการโรงเรียนพี่โรงเรียนน้อง ไทย-สหรัฐอเมริกา ในระดับทั่วประเทศ จนกระทั่งออกจากตำแหน่ง โดยลาออกจากราชการในเดือนสิงหาคม 2553 ก่อนเกษียณอายุราชการเพียง 1 เดือน[5] และในเดือนพฤศจิกายน ปีเดียวกันนั้น นายดอน เข้ามารับตำแหน่งประธานกรรมการความรับผิดชอบต่อสังคมและสิ่งแวดล้อม ที่ บริษัท ช. การช่าง จำกัด (มหาชน)[6] ซึ่งตนเป็นผู้ถือหุ้นและเป็นกรรมการอิสระและกรรมการตรวจสอบ มาตั้งแต่ปี พ.ศ. 2537[7]

ต่อมาในเดือนสิงหาคม 2557 เขาลาออกจากบริษัท ช. การช่าง จำกัด (มหาชน)[8] และเข้ารับแต่งตั้งเป็นรัฐมนตรีช่วยว่าการกระทรวงการต่างประเทศ ในรัฐบาลของ พลเอก ประยุทธ์ จันทร์โอชา[9] ต่อมาได้รับแต่งตั้งเป็นรัฐมนตรีว่าการกระทรวงการต่างประเทศ แทน พลเอก ธนะศักดิ์ ปฏิมาประกร ในเดือนสิงหาคม พ.ศ. 2558[10]

ในปี 2561 กกต. ได้กล่าวว่าเขาขาดคุณสมบัติดำรงตำแหน่งรัฐมนตรี เนื่องจากกรณีภรรยาถือครองหุ้นขัดกฎหมาย โดยภรรยามีหุ้นในธุรกิจเกินกว่า 5% แล้วไม่แจ้ง ป.ป.ช. ภายในเวลาที่กำหนด ซึ่งได้มีการเรียกร้องให้เขาลาออกจากตำแหน่งรัฐมนตรีว่าการกระทรวงการต่างประเทศ แต่เขาปฏิเสธ พร้อมระบุว่า "การแสดงสปิริตให้ไปเรียกร้องกับนักกีฬา"[11][12][13]

ในรัฐบาลพลเอก ประยุทธ์ จันทร์โอชา เขาได้รับแต่งตั้งเป็นรัฐมนตรีว่าการกระทรวงการต่างประเทศ เป็นกรรมการศูนย์บริหารสถานการณ์การแพร่ระบาดของโรคติดเชื้อไวรัสโคโรนา 2019 (โควิด-19)

กระทั่งวันพฤหัสบดีที่ 6 สิงหาคม พ.ศ. 2563 ได้มีพระบรมราชโองการโปรดเกล้าฯ แต่งตั้งให้เขาเป็นรองนายกรัฐมนตรีอีกตำแหน่งหนึ่งควบตำแหน่ง รัฐมนตรีว่าการกระทรวงการต่างประเทศ[14]